數學期望,以 $E(X)$ 或 $\mu_X$ 表示,是隨機變數中心趨勢的基本度量。它代表在重複試驗中長期平均所得的值。物理上,它是機率分佈的質心,由所有可能結果的機率加權和計算得出。
正式定義
對於離散型隨機變數,我們根據機率質量函數(PMF)來定義期望值:
定義 3.1.1
設 $X$ 為一離散型隨機變數。其期望值為:
$$E(X) = \sum_{x \in R^1} x P(X = x) = \sum_{x \in R^1} x p_X(x)$$
定義 3.1.2
若 $X$ 取得不同值 $x_1, x_2, \dots$,對應機率為 $p_i$,則:
$$E(X) = \sum_i x_i p_i$$
無意識統計學家定律(LOTUS)
要計算變換後變數 $g(X)$ 的期望值時,我們不需要先求出 $g(X)$ 的機率密度。
定理 3.1.1(LOTUS)
對於任意函數 $g$,$g(X)$ 的期望值即為函數值依原始機率加權的總和:
$E(g(X)) = \sum_{x} g(x) P(X=x)$
核心性質
- 線性性(定理 3.1.2): $E(aX + bY) = aE(X) + bE(Y)$。即使 $X$ 與 $Y$ 相關,此性質依然成立!
- 單調性(定理 3.1.4): 若對所有結果 $s$ 均有 $X(s) \le Y(s)$,則 $E(X) \le E(Y)$。
- 獨立性(定理 3.1.3): 若 $X$ 與 $Y$ 獨立,則 $E(XY) = E(X)E(Y)$。
範例 3.1.6:指示函數
對於指示函數 $I_A$,當事件 $A$ 發生時 $X=1$,否則 $X=0$:
$E(I_A) = (1)P(A) + (0)P(A^c) = P(A)$